Red-Teaming Medical AI: Systematic Adversarial Evaluation of LLM Safety Guardrails in Clinical Contexts
تقدم هذه الورقة إطار عمل منهجي لاختبار "الفريق الأحمر" لتقييم سلامة الذكاء الاصطناعي الطبي، كاشفةً أنه بينما تنجح الحواجز الوقائية القياسية في حظر معظم الهجمات العدائية، إلا أنها تظل عرضة بشكل كبير لاستراتيجيات انتحال صفة السلطة — ولا سيما تلك التي تصيغ الطلبات في شكل استفسارات تعليمية — والتي تؤدي إلى تحفيز تغيير في الأنماط السلوكية بدلاً من الأخطاء الواقعية.